11月1日，全國(guó)信息安全標(biāo)準(zhǔn)化技術(shù)委員會(huì)（以下簡(jiǎn)稱“信安標(biāo)委”）2023年第二次標(biāo)準(zhǔn)周全體會(huì)議在武漢舉行。會(huì)議以“網(wǎng)絡(luò)安全標(biāo)準(zhǔn)引領(lǐng)人工智能產(chǎn)業(yè)健康發(fā)展”為主題，重點(diǎn)圍繞生成式人工智能安全相關(guān)國(guó)家戰(zhàn)略、法規(guī)和政策要求，探討生成式人工智能安全技術(shù)發(fā)展趨勢(shì)，交流網(wǎng)絡(luò)安全標(biāo)準(zhǔn)引領(lǐng)人工智能產(chǎn)業(yè)和生態(tài)建設(shè)需求。天融信科技集團(tuán)董事長(zhǎng)兼CEO李雪瑩博士受邀出席全體會(huì)議并發(fā)表主題演講，探討人工智能與網(wǎng)絡(luò)安全融合發(fā)展的新方向、新思路。

近年來(lái)，中國(guó)人工智能產(chǎn)業(yè)在政策與技術(shù)雙重驅(qū)動(dòng)下呈現(xiàn)高速增長(zhǎng)態(tài)勢(shì)。據(jù)相關(guān)數(shù)據(jù)顯示，中國(guó)人工智能產(chǎn)業(yè)蓬勃發(fā)展，核心產(chǎn)業(yè)規(guī)模達(dá)到5000億元，企業(yè)數(shù)量超過(guò)4300家，創(chuàng)新成果不斷涌現(xiàn)。隨著人工智能與網(wǎng)絡(luò)安全的快速融合發(fā)展，新技術(shù)與新應(yīng)用不斷涌現(xiàn)，網(wǎng)絡(luò)安全領(lǐng)域面臨的風(fēng)險(xiǎn)與挑戰(zhàn)也日趨嚴(yán)峻。

天融信科技集團(tuán)董事長(zhǎng)兼CEO 李雪瑩博士

“AI是用交叉學(xué)科融合的方式來(lái)研究和開(kāi)發(fā)人類智能的一種技術(shù)。對(duì)網(wǎng)絡(luò)安全而言，AIGC正在使生產(chǎn)模式發(fā)生轉(zhuǎn)變，在增強(qiáng)檢測(cè)防護(hù)、提升交付能力、助力安全運(yùn)營(yíng)和加速安全智能化等方面，實(shí)現(xiàn)了對(duì)網(wǎng)絡(luò)安全業(yè)務(wù)的‘提質(zhì)增效’，為網(wǎng)絡(luò)安全領(lǐng)域帶來(lái)了新的發(fā)展機(jī)遇。同時(shí)，AIGC也在一定程度上推動(dòng)著整個(gè)社會(huì)生產(chǎn)模式發(fā)生變化”。天融信科技集團(tuán)董事長(zhǎng)兼CEO李雪瑩博士在《AI融合網(wǎng)絡(luò)安全技術(shù)變革的新篇章》主題演講中表示。

伴隨AI發(fā)展的三個(gè)浪潮，AIGC經(jīng)歷萌芽、積累階段，生成式人工智能（AIGC）已邁入飛躍階段。大模型大“火”之前，網(wǎng)絡(luò)安全領(lǐng)域就已將人工智能的預(yù)測(cè)、分析、抽取等能力，應(yīng)用于威脅檢測(cè)、惡意流量檢測(cè)、威脅情報(bào)分析、行為分析、安全知識(shí)生產(chǎn)、數(shù)據(jù)分類分級(jí)等業(yè)務(wù)場(chǎng)景。但由于數(shù)據(jù)標(biāo)注成本高、單體算力有限以及模型生成和決策能力不足等問(wèn)題，人工智能賦能網(wǎng)絡(luò)安全仍存在局限性。大模型的出現(xiàn)，給AI的發(fā)展帶來(lái)了新的突破與轉(zhuǎn)變。

其一，改變了模型的構(gòu)建方式，以模型為中心的AI逐步向以數(shù)據(jù)為中心的AI轉(zhuǎn)變；

其二，提升了零樣本和小樣本的學(xué)習(xí)能力，AIGC正在使生產(chǎn)模式發(fā)生轉(zhuǎn)變。

AI賦能網(wǎng)絡(luò)安全技術(shù)變革

信息化技術(shù)應(yīng)用、安全威脅變化和國(guó)家政策法規(guī)是網(wǎng)絡(luò)安全產(chǎn)業(yè)發(fā)展的三大驅(qū)動(dòng)力，AI新突破也給“三大驅(qū)動(dòng)力”帶來(lái)了新的變化。

● 智能場(chǎng)景不斷涌現(xiàn)，大模型技術(shù)加速了數(shù)字化發(fā)展，給網(wǎng)絡(luò)安全帶來(lái)廣闊機(jī)遇；

● AI降低了攻擊門檻，使得攻擊手法更多、攻擊數(shù)量更大，加劇網(wǎng)絡(luò)安全威脅；

● 針對(duì)AI應(yīng)用的安全監(jiān)管評(píng)估體系、面向AI的網(wǎng)絡(luò)安全標(biāo)準(zhǔn)體系逐步完善，推動(dòng)網(wǎng)絡(luò)安全建設(shè)落地。

人工智能可以說(shuō)是一把雙刃劍，在與網(wǎng)絡(luò)安全融合發(fā)展、推動(dòng)產(chǎn)業(yè)加速發(fā)展的同時(shí)，其背后隱藏著一系列安全風(fēng)險(xiǎn)，對(duì)國(guó)家安全、社會(huì)安全、網(wǎng)絡(luò)安全及數(shù)據(jù)安全均提出了新的挑戰(zhàn)。今年7月，《生成式人工智能服務(wù)管理暫行辦法》的出臺(tái)，體現(xiàn)了現(xiàn)階段監(jiān)管機(jī)構(gòu)的態(tài)度，即“既要重視發(fā)展，也要重視風(fēng)險(xiǎn)”，統(tǒng)籌生成式人工智能發(fā)展和安全已成為當(dāng)下關(guān)注的重點(diǎn)。系列政策法規(guī)以及標(biāo)準(zhǔn)的逐步完善給人工智能技術(shù)的發(fā)展指明新方向，依法合規(guī)使用技術(shù)并在監(jiān)管中不斷完善，才能更好地推動(dòng)產(chǎn)業(yè)健康穩(wěn)定發(fā)展。

網(wǎng)絡(luò)安全標(biāo)準(zhǔn)引領(lǐng)AI發(fā)展

中央網(wǎng)信辦牽頭出臺(tái)了多項(xiàng)人工智能領(lǐng)域相關(guān)管理文件，信安標(biāo)委快速推進(jìn)人工智能相關(guān)國(guó)家標(biāo)準(zhǔn)的制定工作，在多層面保障和推動(dòng)著技術(shù)發(fā)展。作為信安標(biāo)委等十余個(gè)標(biāo)準(zhǔn)化組織的成員單位，天融信累計(jì)參與國(guó)家標(biāo)準(zhǔn)、行業(yè)標(biāo)準(zhǔn)300余項(xiàng)，也在積極參與多項(xiàng)AI相關(guān)標(biāo)準(zhǔn)的編制。今年5月，《人工智能安全標(biāo)準(zhǔn)化白皮書（2023版）》正式發(fā)布，天融信作為網(wǎng)絡(luò)安全領(lǐng)域獨(dú)家參編單位，為《白皮書》編制貢獻(xiàn)了豐富的研究成果和實(shí)踐經(jīng)驗(yàn)。

網(wǎng)絡(luò)安全創(chuàng)新實(shí)踐要從標(biāo)準(zhǔn)中來(lái)、到標(biāo)準(zhǔn)中去，以法律及標(biāo)準(zhǔn)為基礎(chǔ)實(shí)踐網(wǎng)絡(luò)安全保護(hù)，在實(shí)踐中探索可行的網(wǎng)絡(luò)安全方法及工具，以實(shí)踐經(jīng)驗(yàn)促進(jìn)標(biāo)準(zhǔn)的不斷改進(jìn)、提升。未來(lái)，天融信將積極推動(dòng)AIGC安全、AI系統(tǒng)安全、AI網(wǎng)安產(chǎn)品三大方面的標(biāo)準(zhǔn)建設(shè)，全力支撐人工智能相關(guān)管理政策，構(gòu)建完善的人工智能安全保障體系，促進(jìn)人工智能技術(shù)在網(wǎng)絡(luò)安全領(lǐng)域的應(yīng)用。

TOPSEC

人工智能技術(shù)的不斷突破帶來(lái)了新的挑戰(zhàn)與機(jī)遇。多年來(lái)，天融信持續(xù)關(guān)注人工智能的變革與發(fā)展，以“提質(zhì)增效”為目標(biāo)，不斷拓展人工智能技術(shù)在網(wǎng)絡(luò)安全領(lǐng)域的技術(shù)革新與應(yīng)用，積極推動(dòng)人工智能與網(wǎng)絡(luò)安全領(lǐng)域有機(jī)融合，譜寫網(wǎng)安發(fā)展新篇章。